Bienvenue dans l’enfer du "social ranking"

Mara Hvistendahl

Bienvenue
dans l’enfer du
social ranking

Quand votre vie dépend
| de la façon dont
l'Etat et les banques vous notent

Au DL

Janvier 2018

Les brochures du collectif

É I

De résistance à la gestion et
l'informatisation de nos vies

Écran total est un collectif réunissant des personnes de
divers horizons professionnels et géographiques.
Confrontés à la rationalisation et à la numérisation du
travail, à l'inflation des protocoles et des normes qu’exige la
société industrielle, elles éprouvent un même sentiment de
dépossession. N’acceptant plus qu’on leur vole la parole ni
qu’on affadisse ainsi le sens et la finalité de leurs activités,
elles ont décidé de témoigner et de résister ensemble.

Cette série de brochures à pour but de faire connaître la
critique de linformatisation et des résistances qu’elle suscite.

— Voir la plateforme Écran total, p. 32 —

Bienvenue dans l’enfer
du social ranking

Dans “Nosedive”, un épisode de la série télévisée
d'anticipation Black Mirror, Lacie Pound, une Emma
Bovary 2.0, rêve de pouvoir acquérir un appartement
luxueux et de rejoindre les hautes sphères de la
jeunesse en vue. Mais pour cela, elle doit être bien
«notée » sur les réseaux sociaux. Toute interaction
est l’occasion d’évaluer son interlocuteur : a-t-elle été
polie avec sa voisine ? Son chef est-il content de son
travail ? Les efforts de la jeune femme tournent au
désastre et effondrement de sa note la relègue au
rang de paria.

En Chine, aujourd’hui, le scénario catastrophe de la
série britannique est déjà une réalité : par le biais
d'applications pour smartphones, l'État, en
partenariat avec des entreprises privées, note les
citoyens. Et ce classement social à des implications
concrètes : pouvoir louer un vélo, obtenir un prêt,
accéder à certains services sociaux, s'inscrire sut un
site de rencontres.

Plongée vertigineuse dans la nouvelle gouverne-
mentalité numérique.

En 2015, lorsque Lazarus Liu rentra en Chine après avoir
étudié trois ans la logistique au Royaume-Uni, il se rendit
bientôt compte que quelque chose avait changé: tout le
monde payait ses achats avec son téléphone. Que ce soit chez
McDonald’s, à l’épicerie du coin ou même dans les petits
bouis-bouis de quartier, ses amis de Shanghai utilisaient le
paiement par portable. L'argent liquide, constatait Liu, avait
été largement remplacé par deux applications pour
smartphones : Alipay et WeChat Pay. Un jour, dans un
marché aux légumes, il vit une dame de l’âge de sa mère sortir
son téléphone afin de payer ses courses. Il décida de s’y
mettre lui aussi.

Afin d'obtenir une carte d'identité Alipay, Liu dut saisir son
numéro de portable et scanner sa carte d’identité nationale. Il
le fit en toute connaissance de cause : Alipay s’était construit
une réputation de fiabilité et, comparé à une banque gérée
avec une indifférence apathique et zéro souci du service à la
clientèle, devenir utilisateur d’Alipay était presque un plaisir.
En quelques clics, le tour était joué. Le slogan d’Alipay
résumait bien son expérience : « La confiance simplifie les choses ».

Alipay s’avéra tellement pratique que Liu se mit à l'utiliser
plusieurs fois par jour, en commençant dès l’aube par
commander son petit-déjeuner par le biais d’une application
de livraison de plats à domicile. Il se rendit compte quil
pouvait payer le stationnement de sa voiture grâce à la
fonction My Car d’Alipay. Il ajouta donc à son profil
d'utilisateur son numéro de permis de conduire, sa plaque
d’immatriculation et le numéro de moteur de son Audi. Il
commença à payer les primes de son assurance automobile
avec la même application. Il réserva ses rendez-vous
médicaux avec Alipay, évitant ainsi les queues anarchiques qui
sont la plaie des hôpitaux chinois. Il incorpora ses amis au
réseau social intégré d’Alipay. Lorsqu'il partit en vacances en
Thaïlande avec sa fiancée (qu’il a épousée depuis), leurs
factures de restaurants et leurs achats de souvenirs furent

réglés via Alipay. L'argent qui lui restait — pas grand-chose une
fois payées les vacances et la voiture —, il le mit sur le compte
épargne à haut rendement d’Alipay. Il aurait aussi fort bien pu
s'acquitter de ses factures d'électricité, de gaz et d’Internet
grâce à la fonction City Service d’Alipay. Comme beaucoup
de jeunes Chinois séduits par les services de paiement en ligne
offerts par Alipay et WeChat, Liu cessa de prendre son
portefeuille lorsqu'il sortait de chez lui.

Si vous vivez aux États-Unis, vous êtes déjà habitué à céder
vos données à des entreprises. Les sociétés de cartes de crédit
connaissent votre consommation de boissons alcoolisées et
savent si vous achetez des jouets sexuels. Facebook sait si
vous aimez les vidéos culinaires de YouTube ou les infos de
Breitbart News. Uber connaît vos destinations et votre
comportement en tant que passager. L'application Alipay
détient elle aussi ce type d'informations sur ses utilisateurs,
mais elle en sait bien plus encore. Propriété de Ant Financial,
une filiale du géant du commerce en ligne Alibaba, Alipay est
parfois décrite comme une « super application ». Sa principale
concurrente, WeChat, appartient à la multinationale de
services Internet et de jeux en ligne Tencent. Mais, bien plus
que de simples applications, Alipay et WeChat sont de
véritables écosystèmes. Chaque fois que Liu cliquait sur
Alipay sur son téléphone, il voyait apparaître une série
d'icônes dont l’ordonnancement ressemblait vaguement à
lPécran d’accueil de son Samsung. Certaines de ces icônes
étaient elles-mêmes des applications de sociétés tierces. S’il le
voulait, il pouvait ainsi accéder à Aïrbnb, Uber ou Didi, le
concurrent chinois d’Uber, sans sortir d’Alipay: un peu
comme si Amazon avait avalé eBay, Apple News, Groupon,
American Express, Citibank et YouTube et pouvait siphonner
toutes leurs données.

NT

La transformation
du système bancaire chinois

Un jour, une nouvelle icône apparut sur l’écran d’accueil
ÂAlipay de Liu: Zhima Credit (Zhma signifie Sésame). Ce
nom, comme celui de la maison-mère d’Alipay, évoque
l’histoire d’Ali Baba et des quarante voleurs, dans laquelle
« Sésame, ouvre-toi ! » est la formule magique qui donne accès
à une caverne pleine de trésors. Quand Liu effleura licône, il
fut accueilli par une image de la planète Terre accompagnée
du texte suivant :

«Zhima Crédit est l’incarnation du crédit individuel. Nous
avons frecouts aux mégadonnées [big data] pour effectuer une
évaluation objective. Plus votre score est élevé, plus vous avez
de crédit. »

Un peu plus bas s’affichait un bouton accompagné de la
légende :
« Votre voyage dans le monde du crédit commence. »
Liu appuya dessus.

En 1956, un ingénieur en électricité, Bill Fair, et un
mathématicien, Earl Isaac, créèrent une PME de technologie

depuis leur appartement de San Francisco. Ils la baptisèrent
Fair, Isaac & Co. mais elle finit par se faire connaître sous le
sigle de FICO. Leur innovation principale consistait à recourir
à l’analyse statistique informatisée afin de traduire le profil
client et l’histoire financière d’un individu par une notation
simple permettant de prédire la probabilité que celui-ci
rembourserait (ou non) ses emprunts. Avant FICO, les
organismes de crédit n’avaient comme source d’informations
que les propos colportés par les propriétaires, les voisins et les
commerçants du quartier. Les candidats à un prêt pouvaient
être discriminés sut la base de leur identité raciale, de leur
propension à être organisé ou désordonné, de leurs mœurs
répréhensibles ou de leurs «gestes efféminés». La notation
algorithmique de Fair et Isaac offrait, selon ses inventeurs,
une voie plus scientifique et plus équitable que ces pratiques
injustes. Leur approche finit par attirer l’attention des grandes
agences d'évaluation — TransUnion, Experian et Equifax — et,
en 1989, FICO introduisit le système de pointage de crédit
que nous connaissons aujourd’hui et qui a permis à des
millions d’Américains de contracter des emprunts
hypothécaires et de laisser filer leurs découverts.

De son côté, au cours des trente dernières années, la Chine
est passée au rang de deuxième économie mondiale sans
posséder de système de crédit opérationnel. La Banque
populaire de Chine, principal régulateur bancaire du pays,
tient des registres sur des millions de consommateurs, mais ils
contiennent très peu d'informations pertinentes. Jusqu’à
récemment, il était difficile d’obtenir une carte de crédit. Les
consommateurs avaient principalement recours à l’argent
liquide. Avec l’envolée des prix du logement, cette situation
devint de plus en plus intenable. Zennon Kapron, qui dirige le
cabinet de conseil en technologies financières Kapronasia,
explique :

«Maintenant, vous avez besoin de deux valises de billets
pour acheter une maison, et plus d’une seule. »

Mais tous les efforts en vue d’établir un système de crédit
fiable avaient jusqu'ici échoué en raison de lPabsence d’une
agence de notation indépendante. En revanche, fin 2011, la
Chine comptait déjà trois cent cinquante-six millions
d'utilisateurs de smartphones.

Cette année-là, Ant Financial lança une version d’Alipay qui
comprenait un scanner intégré capable de lire les codes QR, ces
étiquettes de forme carrée lisibles par une machine et contenant
près de cent fois plus d'informations qu’un code barre
standard. (WeChat Pay, qui a été lancé en 2013, possède un
scanner intégré similaire.) Le scannage d’un code QR peut vous
amener sur un site Web, faire afficher une application ou bien
vous connecter au profil de telle ou telle personne sur un
réseau social. Ce type de code à commencé à faire son
apparition jusque sur les tombes (on scanne si l’on veut en
savoir plus sur le défunt) ou sur les chemises des serveurs dans
les restaurants (on scanne pour donner un pourboire). Des
mendiants se sont mis à imprimer des codes QR et à les
exposer sur le trottoir. En Chine, ces codes relient l’univers en
ligne et la réalité hors ligne à une échelle jamais vue ailleurs
dans le monde. Dès la première année de fonctionnement du
scanner de codes QR, le montant
des paiements par téléphone sur sn
Alipay à atteint près de soixante-

dix milliards de dollars.

En 2013, les dirigeants de Ant
Financial effectuèrent une
retraite dans les montagnes de la
région de Hangzhou pour

discuter de la création d’une
foule de nouveaux produits ;
lun d’entre eux était Zhima
Credit. Ils se rendirent compte
qu'ils pouvaient utiliser la
puissance de collecte de

données d’Alipay afin de calculer un pointage de crédit
s'appuyant sur les activités d’un individu. You Xi, un
journaliste économique chinois qui a décrit cette réunion
historique dans un ouvrage récent Ayf Financial, explique :

« C'était un processus très naturel. Si vous avez des données
de paiement, vous pouvez évaluer le crédit d’une personne. »

C’est ainsi qu’Alipay s’est engagé sur la voie de la création
d’un système de notation capable de mesurer « Tofre crédit dans
tous les domaines de l'existence ».

Le nouvel outil de surveillance
du Parti communiste chinois

Ant Financial n’était pas la seule organisation désireuse
d'utiliser ce type de données dans le but de mesurer la valeur
des personnes. Coïncidence ou non, en 2014, le
gouvernement chinois annonça qu'il était en train de
développer ce qu’il appelait un système de « crédit social ». Cette
même année, le Conseil des affaires de l’État — la branche
exécutive du gouvernement chinois — appela publiquement à
la mise en place d’un système national de suivi qui évaluerait
la réputation des particuliers, des entreprises et même des
fonctionnaires gouvernementaux. L'objectif était que, d’ici à
2020, tous les citoyens chinois soient enregistrés dans un
fichier compilant des données provenant de sources publiques
et privées, et que ces fichiers puissent être consultés à l’aide de
leurs empreintes digitales et d’autres caractéristiques
biométriques. Selon les termes mêmes du Conseil des affaires
de l’État, il s’agit d’un « sysèe de crédit qui couvre toute la société ».

Du point de vue du Parti communiste chinois, la promotion
du crédit social correspond à une tentative de mettre en
œuvre une forme d’autoritarisme plus «douce» et plus
discrète. L'objectif est d’inciter les citoyens à adopter toute
une série de comportements pouvant aller des économies
d'énergie à l’obéissance au Parti Samantha Hoffman,

consultante à l’Institut international d’études stratégiques de
Londres, est une spécialiste du crédit social ; d’après elle, le
gouvernement chinois s'efforce de prévenir toute forme
d’instabilité qui pourrait menacer le Parti :

« C’est pourquoi, dans l’idéal, le crédit social repose à la fois
sur des aspects coercitifs et sur des aspects plus agréables,
comme la prestation de services sociaux et la résolution de
problèmes réels. Le tout dans une même logique de type
orwellien. »

En 2015, Ant Financial était l’une des huit entreprises de
technologie à avoir reçu l'approbation de la Banque populaire
de Chine pour développer sa propre plateforme privée de
notation de crédit. Peu de temps après, Zhima Credit fit son
apparition sur l'application Alipay. Ce service suit votre
comportement en ligne afin de déterminer une cote de crédit
qui peut aller de 350 à 950 points ; il offre des avantages et
des récompenses aux individus affichant un bon score.
L’algorithme de Zhima Credit prend en compte non
seulement votre capacité à payer vos factures, mais également
vos achats, vos diplômes et la cote de crédit de vos amis. Tout
comme Fair et Isaac quelques décennies plus tôt, les
dirigeants de Ant Financial défendent publiquement l’idée
qu’une approche axée sur la collecte de données permettra
laccès au système financier de personnes qui en avaient été
exclues jusque-là, comme les étudiants ou les habitants des
campagnes. Adressé aux plus de deux cents millions
d'utilisateurs d’Alipay qui ont opté pour Zhima Credit,
l'argument de vente est limpide : vos données vous ouvriront
les portes comme par magie.

L’adhésion à Zhima Crédit est volontaire et il est difficile de
savoir si elle affecte la notation d’un individu dans le cadre du
système d'évaluation gouvernemental, et comment. Aucun
dirigeant de Ant Financial n’a accepté de m’accorder une
interview, mais on m'a transmis un communiqué de Hu Tao,
la directrice générale de Zhima Credit :

« L'objectif de Zhima Credit est de créer de la confiance dans
un cadre strictement commercial et indépendant de tout
système de crédit social mis en place par le gouvernement.
Zhima Credit ne partage pas les notations de ses utilisateurs ou
les données qui les alimentent avec des tierces parties, y
compris le gouvernement, sans le consentement préalable des
utilisateurs. »

Néanmoins, dans un communiqué de presse diffusé en
2015, Ant Financial déclarait son ambition de « contribuer à
construire un système d'intégrité sociale». Et l’entreprise à déjà
coopéré dans un domaine important avec le gouvernement
chinois : elle à intégré à la base de données de Zhima Credit
une liste noire de plus de six millions de personnes n’ayant
pas payé leurs amendes judiciaires. D’après l'agence de presse
officielle Xinhua, cette association entre deux Léviathans —
public et privé — à permis aux tribunaux de sanctionner plus
d’un million deux cent dix mille contrevenants, lesquels ont
un jour constaté en ouvrant leur application Zhima Credit que
leur score avait plongé.

D’après le Conseil des affaires de l’État, dans le cadre du
système national de crédit social, les citoyens pourront être
pénalisés entre autres au titre du délit de propagation de
rumeurs en ligne et les personnes jugées comme « ex#rémement
ben fiablks» n'auront accès qu’à des services au rabais.
Apparemment, Ant Financial semble aussi aspirer à
catégoriser la société en fonction de principes moraux. Dans
son livre Ant Financial, You Xi cite des propos de la directrice
générale Lucy Peng selon laquelle :

« Zhima Credit veillera à ce que les personnes de moralité
douteuse voient toutes les portes se fermer devant elles, tandis
que les citoyens honnêtes seront libres de leurs mouvements et
ne connaîtront pas d’obstacles.»

Prolétariat et bourgeoisie numériques

Après avoir vécu en Chine pendant près d’une décennie, j’ai
quitté le pays en 2014; les paiements par téléphone ne
s'étaient pas encore généralisés. Ils représentent aujourd’hui
5 500 milliards de dollars de transactions par an (contre
seulement 112 milliards aux États-Unis en 2016). Lorsque je
suis retournée en Chine pendant mes vacances, en août 2017,
j'étais bien décidée à faire partie de ce nouvel univers libre de
cash. Je me suis donc inscrite sur Alipay et
Zhima Crédit quelques heures à peine après
mon atterrissage. Faute d’un historique de
mes transactions, j’ai été aussitôt confrontée
à un verdict plutôt embarrassant : ma cote
de crédit était de cinq cent cinquante points.

Lors de mon premier jour à Shanghai, j'ai
ouvett l’application de Zhima Credit afin de
scanner un vélo jaune que j'avais trouvé à
moitié couché au milieu du trottoir. En
Chine, la culture du vélo en libre-service,
tout comme celle du paiement par
téléphone, est surgie de nulle part, et les
rues de Shanghaï sont jonchées de vélos aux
couleuts vives, abandonnés au hasard des
caprices des cyclistes. En scannant le code
QR d’un vélo, on obtient un nombre à
quatre chiffres qui débloque la roue arrière,
et un trajet en ville coûte environ 15 cents.
Mais vu la médiocrité de mon score, il me fallut payer un
dépôt de garantie de 30 dollars avant de pouvoir scanner mon
premier vélo. Même chose pour mes séjours à hôtel, mes
locations de caméras GoPro, ou même l'emprunt d’un parasol
gratuit. J’appartenais au sous-prolétariat numérique.

10

En Chine, tout le monde à peur des pranzi, les escrocs
professionnels. Comment savoir si vous n’êtes pas un pranzi ?
C’est une question que les gens se posent souvent lorsque des
vendeurs les appellent au téléphone ou que des réparateurs
sonnent à leur porte. Certes, ma cote de crédit n’était pas si
basse que je sois classée aux rangs des pianzi mais, entre autres
choses, Zhima Credit promet à ses clients d'identifier les vrais
bianzi. Les entreprises peuvent acheter des évaluations de
risque-client qui leur permettent de savoir si les usagers ont
payé leur loyer ou leurs factures, ou bien s'ils figurent sur la
liste noire des tribunaux. Ces produits leur sont facturés sur la
base du temps gagné. Sur le site Tencent Video, je suis
tombée sur une publicité de Zhima Credit dans laquelle un
homme d’affaires circulant en métro scrute les autres
passagers avec une mine consternée : « On dirait qu'ils ont tous
une tête de pianzi. » Ses employés, soucieux de se protéger
contre les clients suspects, couvrent les murs de la salle de
conférences de photos de délinquants et de criminels. Mais
tout d’un coup — Ewréka ! —, le patron découvre Zhima Credit,
et tous leurs problèmes sont résolus. Le personnel fête la
chose en déchirant les photos épinglées au mur.

Aux clients qui se comportent bien, Zhima Credit offre toute
une série de bonus grâce à des accords de coopération signés
par Ant Financial avec des centaines de sociétés et
d'institutions. Shenzhou Zuche, une agence de location de
voitures, permet aux personnes ayant un score de plus de 650
points de louer une voiture sans dépôt de garantie. En échange
de cette évaluation, Shenzhou Zuche partage ses données, de
sorte que si un utilisateur de Zhima Credit a un accident avec
une voiture de location et refuse de payer les dégâts, cet
incident est comptabilisé en négatif dans son dossier de crédit.
Il fut même une époque où les individus ayant un score de plus
de 750 points étaient exemptés de faire la queue au contrôle de
sécurité de l’aéroport international de Pékin.

11

Deux ans après être devenu utilisateur de Zhima Crédit,
Lazarus Liu n’était pas très loin de ce score. J’ai fait sa
connaissance un samedi après-midi dans un centre
commercial de Shanghai, devant une boutique Forever 21. Liu
a 27 ans et travaille pour une grosse entreprise. Il était ce jour-
là entièrement vêtu de noir — chemise, short Air Jordan et
baskets — et arborait une coupe dégradée avec une grande
mèche noire tombant sur le côté. Nous sommes entrés dans
un Starbucks bondé de jeunes gens penchés sur leurs
téléphones et sirotant des thés glacés à la pêche ou des
Frappuccinos au thé vert. Liu occupa la dernière table libre.

Il m’expliqua qu’il avait choisi son prénom anglais, Lazarus,
après s'être converti au catholicisme trois ans auparavant,
mais que sa foi était avant tout une affaire privée. C’était un
peu la même chose pour son score Zhima Credit : il révélait
sans doute quelque chose sur sa personnalité, mais il préférait
rester discret à ce sujet. D'ailleurs, il vérifiait rarement sa cote
de crédit — nichée sur l’application Alipay de son Samsung —
et, vu que son score était bon, il n’avait pas besoin de le faire.
Après avoir débuté à 600 points sur un total possible de 950,
il avait atteint un score de 722 points, ce qui lui donnait droit
à des conditions avantageuses pour obtenir un prêt ou louer
un appartement, ainsi qu’à un accès privilégié à plusieurs
applications de rencontres au cas où il se séparerait de son
épouse. Avec quelques dizaines de points de plus, il pourrait
bénéficier d’une procédure accélérée d'obtention d’un visa
d'entrée au Luxembourg, bien qu’il n’ait aucune intention de
visiter ce pays.

Au fur et à mesure que l’historique des transactions et des
paiements de Liu sur Alipay évoluait de façon favorable, son
score ne cessait d'augmenter. Mais s’il négligeait de payer une
amende de circulation, par exemple, cette tendance pouvait
fort bien s’inverser. Et les privilèges associés à un score élevé
pouvaient parfaitement être révoqués un beau jour en vertu
de critères n'ayant strictement rien à voir avec son

12

comportement de consommateur. En juin 2015, alors que
neuf millions quatre cent mille d'adolescents chinois passaient
le redoutable examen national d’entrée à l’université, Hu Tao,
la directrice générale de Zhima Credit, déclara à la presse que
Ant Financial comptait obtenir une liste d’étudiants ayant
triché et que cette entorse serait comptabilisée dans leur
dossier de crédit : « S7 vous vous comportez de facon malhonnête, vous
devez en payer les conséquences. » Pour les citoyens honnêtes,
aucun obstacle. Pour les autres, l'épée de Damoclès d’un
mauvais score.

Booster sa note sociale

L'application Alipay
sait que dans l’après-
midi du 26 août à 13
heures, j'ai loué une
bicyclette de marque
Ofo aux abords de
Pancienne concession
française de Shanghai et
que je me suis dirigée
vefs le notd, stationnant
mon vélo devant le
temple de Jing’an. Elle
sait qu’à 13h24, jai
acheté un casse-croûte
dans le centre commercial voisin du temple. Elle sait que j'ai
ensuite emprunté un véhicule avec chauffeur de la société Didi
à destination d’un quartier au nord-ouest. Elle sait que j’en suis
descendue à 15h11 et que je suis entrée dans un supermarché,
et elle sait aussi qu’à 15h36 j'y ai acheté des bananes, du
fromage et des crackers — parce que le propriétaire du
supermarché est Alibaba et qu’à la caisse ne sont acceptés que
les paiements par Alipay. Elle sait que j’ai ensuite pris un taxi et
que je suis arrivée à destination à 16h01. Elle connaît le numéro

605

13

d'identification de mon taxi. Elle sait qu’à 16h19, j'ai payé 8
dollars pour une livraison d'Amazon. Suivent trois heures
bénies — dont une passée dans la piscine — pendant lesquelles
Alipay ne sait pas où je suis. Après quoi, elle sait que j'ai loué
une autre bicyclette Ofo devant un hôtel du centre de
Shanghai, pédalé pendant 10 minutes et qu’à 19h11, je l'ai garée
devant un restaurant connu. Étant donné que Ant Financial est
un partenaire stratégique d’Ofo, il est possible qu’Alipay
connaisse exactement le chemin que j’ai emprunté.
L’algorithme qui établit ma cote de crédit Zhima est un
secret d'entreprise. Ant Financial a rendu publiques les cinq
grandes catégories de données qui informent un score, mais
ne permet pas d'en savoir plus sur la façon dont ces
ingrédients sont cuisinés. Comme tous les systèmes classiques
de pointage de crédit, Zhima Credit surveille mon historique
de dépenses et vérifie si j’ai remboursé mes prêts. Mais en ce
qui concerne d’autres critères, on est dans l'arbitraire le plus
total, voire pire. Une catégorie baptisée « Connections » prend
en compte le crédit de mes contacts sur le réseau social
d’Alipay. D’autres caractéristiques prises en considération
sont le type de véhicule que je conduis, mon lieu de travail et
les établissements scolaires que j'ai fréquentés. La catégorie
« Comportement» se penche sur les nuances de mon existence
de consommatrice, ciblant les actions censées correspondre à
un crédit positif. Peu de temps après le lancement de Zhima
Credit, son directeur du développement technologique, Li
Yingyun, déclarait au magazine chinois Caixin que des
habitudes de dépenses telles que Pachat de couches pour bébé
étaient susceptibles d'augmenter votre score, tandis que jouer
à des jeux vidéo pouvait le faire diminuer. Sur les réseaux
sociaux, d’aucuns escomptent que le fait de contribuer à une
œuvre de bienfaisance, si possible grâce au service de
donation intégré d’Alipay, augmentera votre crédit. Sauf que
je ne sais pas trop si les 3 dollars dont j'ai fait don à un

14

organisme qui alimente des oursons bruns seront interprétés
comme de la générosité ou de la mesquinerie.

J'ai donc commencé à surveiller mon score de façon
obsessionnelle, mais comme les cotes de crédit ne sont
réévaluées que sur une base mensuelle, le chiffre n’évoluait
pas. Chaque fois que j’ouvrais l'application, j'étais confrontée
à un écran de couleur orange qui n’avait rien de rassurant. Au
premier plan, il y avait un cadran en forme de demi-cercle qui
signalait que je n’avais atteint qu’un quart de mon potentiel.
Un article du portail Sohu.com m’expliquait que mon score
m'assignait à la catégorie des « gens ordinaires ». « Niveau culturel
pen élevé. Refraité ou à la veille de la retraite», commentait cette
page. En Chine, où de nombreuses personnes âgées ont perdu
plusieurs années d’éducation pendant la Révolution culturelle,
ce n’est pas un compliment. À en croire Sohu, seulement 5%
de la population avait un score moins élevé que le mien.

Un beau matin, préoccupée de savoir si je pouvais faire
quelque chose pour améliorer mon score, j’empruntai un taxi
en direction du centre de Shanghai afin de me rendre dans un
centre commercial haut de gamme à ciel ouvert. J’y avais
rendez-vous avec Chen Chen, une illustratrice âgée de trente
ans qui avait signalé à un ami commun sur WeChat qu’elle
bénéficiait d’une «excellente» notation sur Zhima Credit. Je
voulais donc lui demander conseil. Munies d’une tasse de
café, nous nous sommes installées sur une aire de restauration
en plein air. Chen portait une chemise ouverte sur un T-shirt
blanc et un slim. Ses cheveux étaient teints en blond et elle
arborait un fard à paupières à paillettes. Son score Zhima
Credit était de 710 points et l’écran de son application
affichait un bleu ciel rassérénant.

Elle m’expliqua comment booster mon score :

«Ils vont vérifier quel genre de personnes tu fréquentes. Si
tes amis sont tous bien notés, c’est bon pour toi. Si tu as des
amis qui ont un mauvais score, c’est embêtant. »

15

Une fois inscrite sur Alipay, javais fait des demandes d’amis
à tous mes contacts téléphoniques. Seules six personnes
avaient accepté. Un de mes nouveaux amis Alipay était
quelqu'un à qui j'avais donné des leçons d’anglais,
probablement la personne la plus riche que je connaisse à
Shanghai. Il possédait plusieurs entreprises, une pléthore de
voitures et une grande villa dans un quartier chic. Mais j'avais
aussi sur ma liste d’amis ma vieille couturière qui occupait,
avec toute sa famille, une seule pièce dans un immeuble
délabré, avec des piles de tissu bouchant la vue des fenêtres.
Le score de ma couturière — et son impact sur le mien — allait-
il annuler celui de l’homme d’affaires ? Et moi-même, n’allai-
je pas porter préjudice à leurs notations respectives ?

Chen m’expliqua qu’elle connaissait les scores de ses amis
proches mais pas ceux de ses simples connaissances ou de ses
collègues de travail. Il existe des forums de discussion où les
personnes relativement bien notées cherchent à faire
connaissance avec d’autres personnes au score élevé,
vraisemblablement dans le but d’améliorer leur propre
notation. Mais en général, les gens se fient simplement à leur
intuition pour savoir qui parmi leurs contacts est susceptible
d’être bien noté et qui il vaut mieux éliminer de leur liste
d'amis. Afin de me rassurer, Chen m'expliqua que les
utilisateurs ayant son type de profil n’avaient pas encore pris
la décision d’exclure les gens comme moi de leur réseau.
Zhima Credit était une application encore toute récente et si
lune de vos connaissances avait un score médiocre, cela
pouvait encore s’expliquer charitablement par le fait « qu'elle ne
l'utilisait pas depuis assez longtemps ».

Hiérarchisation des citoyens
et contrôle social

Si l’on cherche à comprendre la séduction qu’exerce ce type
d'ingénierie sociale sur les dirigeants chinois, il faut remonter

16

à plusieurs décennies, bien avant l’émergence des applications
et du big data. Dans les années postérieures à la révolution
communiste de 1949, le gouvernement affecta l’ensemble de
la population à des unités de travail locales qui fonctionnaient
de fait comme des sites de surveillance et de contrôle. Tout le
monde espionnait ses voisins tandis que chacun faisait son
possible afin d'éviter les mauvais points sur son dang'an, son
dossier officiel. Mais le maintien de ce système exigeait de la
part de l’État un gigantesque effort de vigilance. Lorsque les
réformes économiques des années 1980 incitèrent des
millions de personnes à quitter leurs villages et à émigrer en
ville, le système des unités de travail s’effondra. Cette
migration eut également un effet secondaire: les villes se
remplirent d'étrangers et de pianzi.

J 111/ 1 /
l / /
/ HU

À + y, P
TUE LE

111} 1111]

Il ne fallut pas longtemps aux autorités gouvernementales
avant de commencer à penser à « ludifier » le comportement
social des citoyens. Comme lexplique Rogier Creemers,
spécialiste du droit chinois à l’Institut d’études régionales de
Leyde, aux Pays-Bas :

«Les dirigeants chinois se rendirent compte que s'ils
souhaitaient avoir un système de marché fonctionnant de façon
autonome, il leur fallait aussi des systèmes de crédit
fonctionnant de façon autonome. »

17

À la fin des années 1990, un groupe de travail d’un institut
de PAcadémie chinoise des sciences élabora les concepts
fondamentaux du système de crédit social. Mais à l’époque, la
technologie n’était pas assez avancée pour satisfaire les grands
desseins politiques du Parti communiste.

Il y a environ une dizaine d’années, j'ai passé quelques
semaines à Suining, une préfecture majoritairement rurale de
la province de Jiangsu, près de Shanghai. À ce moment-là, les
autorités locales ne faisaient pas dans la subtilité. Lorsqu'il
s'agissait de sévir contre les conducteurs qui brülaient des
feux rouges, elles exhortaient les citoyens à prendre des
photos des contrevenants afin de pouvoir les diffuser sur la
chaîne de télévision locale. Mais en 2010, Suining devint l’une
des premières collectivités locales du pays à tester un système
de crédit social. Les fonctionnaires commencèrent à évaluer
les résidents en fonction de divers critères, dont le niveau de
scolarité, le comportement en ligne et le respect du code de la
route. On attribua à chacun des 1,1 million d’habitants de
Suining âgés de plus de 14 ans un score initial de 1000 points,
qui était révisé à la hausse ou à la baisse en fonction de leur
comportement. Si vous étiez en charge de personnes âgées
membres de votre famille, vous gagniez 50 points. Venir en
aide aux pauvres valait 10 points. Venir en aide aux pauvres
de telle sorte que votre action était mentionnée dans les
médias vous rapportait 15 points. Une condamnation pour
conduite en état d'ivresse se traduisait par une perte de 50
points, tout comme une tentative de corruption d’un
fonctionnaire. Une fois son score établi, chaque citoyen se
voyait attribuer une notation globale : À, B, C ou D. Les
citoyens de catégorie À étaient prioritaires en matière d’accès
aux établissements scolaires et aux emplois, tandis que les
membres de la catégorie D se voyaient refuser toute une série
de licences et de permis, ainsi que l’accès à certains services
sociaux.

18

Le système de Suining était rudimentaire et il suscita durant
une brève période un débat national sur les critères censés
guider l'évaluation du crédit social. Mais il offrait le terrain
d'essai de futures expériences à l’échelle nationale. Et si
grossière que füt la notation par lettres, elle était moins
grossière que ce qu’elle remplaçait. Avec le système de crédit
social de Suining, les autorités passaient à une stratégie de
communication plus subtile. Depuis ce projet pilote, plusieurs
dizaines de villes ont développé leur propre système. La
technologie existante est désormais à la hauteur. Tous ces
systèmes seront un jour intégrés à l’échelle nationale au
système de crédit social du gouvernement, ce qui obligera ce
dernier à résoudre un sacré casse-tête logistique. En vue de
l’aider dans cette tâche, le gouvernement à enrôlé Bai du, une
grosse entreprise de technologie censée participer à
développer la base de données du crédit social chinois d’ici
2020.

D'une certaine façon, c’est le secteur privé qui a contribué à
faire évoluer lattitude du Parti à l’égard des technologies
numériques. Lorsqu'Internet est arrivé en Chine, faisant
irruption dans la vie des gens sous la forme de blogs et de
forums de discussion, le Parti la d’abord perçu comme une
menace. Voilà un espace où les gens pouvaient dire ce qu’ils
pensaient, se regrouper, exprimer leurs désaccords. Les
dirigeants réagirent à ces aspirations par la censure et d’autres
tactiques agressives. Mais grâce à des sociétés comme Ant
Financial, les autorités ont fini par comprendre l'utilité des
technologies numériques pour collecter et diffuser
information. Au lieu de simplement réagir au contenu en
interdisant certains termes de recherche ou en fermant des
sites Web, le gouvernement collabore désormais avec le
secteur privé dans le domaine des technologies de
reconnaissance faciale et vocale ainsi que dans celui de la
recherche sur l’intelligence artificielle.

19

En 2015, quelques mois après le lancement de Zhima
Credit, le fondateur d’Alibaba, Jack Ma, s’est rendu aux États-
Unis avec quatorze autres dirigeants d’entreprises dans le
cadre de la première visite d’État du président Xi Jinping. À
l'instar des patrons de Tencent et de Baïdu, Ma siège
également au conseil d’administration de l’Internet Society of
China (ISC), une organisation paragouvernementale dirigée
par le Parti. Ce lien stratégique est cependant délicat à gérer.
Ces derniers mois, les régulateurs chinois ont pris des mesures
en vue d’exercer un contrôle plus étroit sur les entreprises de
technologie. En août 2017, la Banque populaire de Chine a
ordonné aux sociétés de paiement en ligne et par téléphone de
se connecter à une chambre de compensation du
gouvernement, lequel a dès lors eu un accès aux données des
transactions. Deux mois plus tard, le Wa Street Journal
rapportait que les régulateurs chinois d’Internet envisageaient
de prendre une participation de 1% dans les principales
sociétés de technologie. On peut envisager un scénario
possible de cette forme de partenariat autour du crédit social :
la Banque centrale superviserait le développement d’un
système d'évaluation global semblable à la notation FICO
tout en permettant à des sociétés comme Ant Financial de
collecter des données afin d’alimenter cette évaluation. Quelle
que soit sa structure définitive, You Xi, l’auteur du livre sur
Ant Financial, explique :

« Le système de crédit social global sera certainement sous le
contrôle du gouvernement. Le gouvernement ne veut pas que
Pinfrastructure fondamentale du crédit social des citoyens soit
entre les mains d’une grande compagnie. »

Certains des citoyens chinois qui ont été évalués comme
peu fiables ont déjà eu un aperçu des conséquences possibles
d’un système unifié. En mai 2017, Liu Hu, un journaliste âgé
de 42 ans, ouvrit une application de voyage pour réserver un
vol. Lorsqu'il saisit son nom et son numéro de carte d’identité
nationale, l’application linforma que la transaction ne pouvait

20

être conclue parce qu’il figurait sur la liste noire de la Cour
populaire suprême. C’est justement cette liste — baptisée
« Läste des personnes malhonnêtes » — qui est intégrée à la base de
données de Zhima Credit. En 2015, Liu avait été poursuivi
pour diffamation par une personne mentionnée dans un de
ses articles et un tribunal lui avait ordonné de payer 1350
dollars. Non seulement il avait réglé cette amende, mais il
avait envoyé au juge concerné une photo du bordereau de
virement bancaire. Ne comprenant pas pourquoi il était
encore sur la liste noire, il contacta le juge et comprit alors
qu’en effectuant son virement, il s'était trompé de numéro de
compte. Il s’empressa de faire à nouveau transférer la somme
due, tâchant de s’assurer cette fois que le tribunal Pavait bien
reçue. Le juge ne lui répondit pas.

Liu n’était pas utilisateur de Zhima Credit, mais il n’avait pu
échapper à la liste noire. Il était devenu de fait un citoyen de
deuxième classe. Il ne pouvait pratiquement plus voyager, sauf
à réserver les sièges les plus inconfortables des trains les plus
lents. Il ne pouvait pas s’offrir certains biens de consommation
ni se loger dans des hôtels de luxe, encore moins accéder à des
prêts bancaires substantiels. Pire, la liste noire était publique.
Liu avait déjà fait une année de prison antérieurement pour
«fabrication ef propagation de rumeurs» après avoir publié un
reportage sur les malversations d’un maire adjoint de
Chongging. Comparée à son expérience carcérale, cette
nouvelle sanction, plus immatérielle, le laissait presque de
marbre : cette fois, on ne l’arrachait pas à sa femme et à sa fille.

Ce qui ne lempêcha pas de se servir de son blog personnel
afin d’essayer de susciter la sympathie du juge et de le
convaincre de retirer son nom de la liste. En octobre dernier,
il y figurait encore :

«Il n’y a pratiquement aucune supervision des exécuteurs
judiciaires qui gèrent la liste noire. Il y a beaucoup d’erreurs de
traitement qui ne sont pas coffigees. »

21

Si Liu avait eu un dossier chez Zhima Credit, ses problèmes
auraient été encore plus graves. Étant donné la conception de
lapplication, une fois que vous êtes sur la liste noire, vous êtes
aspiré par une spirale descendante vertigineuse. D’abord, votre
score plonge. Ensuite, vos amis apprennent que vous êtes sur
la liste noire et, craignant que leur propre score en soit affecté,
ils vous éliminent discrètement de leurs contacts. L’algorithme
en prend note et votre score s’effondre de plus en plus.

La généralisation
de la surveillance numérique

Peu de temps après mon retour de Chine, Equifax, Pagence
étasunienne d'évaluation de crédit, annonça qu’elle avait été
piratée par des hackers. Cette intrusion exposa les dossiers de
crédit de quelque cent quarante-cinq millions de personnes. Ce
fut une dure révélation pour moi comme pour beaucoup
d’Américains. Mon numéro de carte de crédit avait été volé
quelques semaines plus tôt mais, comme j'étais en voyage à
l'étranger, je n’avais pas pris la peine de faire bloquer mon
compte. Lorsque j’essayai de le faire après le piratage, cette
procédure déjà difficile en temps normal était devenue presque

22

impossible. Le site d'Equifax ne fonctionnait qu’à moitié et ses
lignes téléphoniques étaient saturées. Désespérée, je fis appel à
une plateforme de suivi de crédit appelée Crédit Karma. En
échange des mêmes informations que je cherchais à protéger,
elle me communiqua ma cote de crédit auprès de deux des trois
principales agences d'évaluation. Mes scores me furent
communiqués par le biais d’un cadran similaire à celui de
Zhima Credit, avec pratiquement le même code couleur.
J'appris ainsi que ma notation avait baissé de plusieurs dizaines
de points. Je découvris en outre quatre ou cinq transactions
conclues en mon nom et que je ne reconnaissais pas.

Désormais, j'étais notée par deux systèmes d'évaluation des
deux côtés de locéan Pacifique. Mais il s’agissait là seulement
des notations dont javais connaissance. La plupart des
Américains sont soumis à des dizaines d'évaluations chiffrées,
le plus souvent fondées sur des paramètres comportementaux
et démographiques similaires à ceux utilisés par Zhima Crédit.
Ces pointages de crédit sont généralement aux mains de
sociétés qui nous évaluent sans que nous ne puissions rien y
faire. Mais dans nombre de cas, nous sommes des utilisateurs
volontaires de ces systèmes de notation.

S'il est vrai que le gouvernement des États-Unis n’a pas le
pouvoir légal de me contraindre à participer à ce genre
d’expérimentation sociale massive, il reste que je cède tous les
jours mes données à des entreprises privées. Je leur fais assez
confiance pouf participer à leurs gigantesques systèmes
d'évaluation. Je poste mes réflexions et mes sentiments sur
Facebook et laisse une trace de tous mes achats sur Amazon
et eBay. Je note mes semblables sur Airbnb et Uber et suis
très préoccupée de la façon dont je suis moi-même évaluée. Il
n'existe pas encore de super application gouvernementale aux
États-Unis et les scores compilés par les courtiers de données
servent essentielle-ment à mieux cibler les messages
publicitaires, et non à exercer un contrôle social. Mais grâce à
une procédure technologique connue sous le nom de

23

résolution d'identité, les agrégateurs de données peuvent
utiliser ce que je laisse derrière moi afin de fusionner les
indices me concernant à partir de diverses sources.

Est-ce que vous consommez des antidépresseurs ? Est-ce
que vous renvoyez fréquemment chez le distributeur les
vêtements que vous avez achetés en ligne ? Lorsque vous
remplissez un formulaire en ligne, écrivez-vous votre nom en
majuscules ? Tel est le type d'informations collectées par les
courtiers de données, et l’on pourrait citer bien d’autres
exemples. Tout comme en Chine, vous pouvez même être
pénalisé pour vos fréquentations. En 2012, Facebook à breveté
une méthode d'évaluation de crédit capable de prendre en
compte les scores des personnes de votre réseau. Vos amis se
voient attribuer un score moyen et si cette moyenne est
inférieure à un certain minimum, on peut vous refuser une
demande de prêt. Facebook à depuis révisé sa politique afin
d'interdire aux prêteurs extérieurs d’utiliser les données de ses
plateformes en vue de réguler lPaccès au crédit de ses
utilisateurs. Mais qu'est-ce qui empêche le géant de la Silicon
Valley d’entrer lui-même un jour dans le secteur du crédit ?

Interrogé sur le brevet en question, un porte-parole de
Facebook à déclaré :
« Nous déposons souvent des brevets pour des technologies

que nous n’utiliserons jamais et les brevets ne doivent pas être
considérés comme une indication de nos projets futurs. »

Pour Frank Pasquale, spécialiste du big data à la faculté de
droit de l’université du Maryland :

«On peut parfaitement imaginer un avenir où les gens
surveilleront l’évolution de la cote de crédit de leurs amis et où,
si elle est en baisse, ils les laisseront tomber de peur d’être eux-
mêmes affectés. C’est terrifiant. »

Il arrive fréquemment que les courtiers en données soient
complètement à côté de la plaque. La société de données client
Acxiom, par exemple, qui met en ligne une partie de

24

l'information qu’elle collecte sur le site About-TheData.com,
me décrit comme une célibataire n’ayant que le niveau bac et
« qui fréquente sans doute les casinos de Las V/egas ». En réalité je suis
mariée, j'ai un diplôme de waser et je n’ai jamais acheté ne
serait-ce qu’un billet de loterie. Mais il est impossible de
remettre en question ces évaluations car nous ne sommes
jamais informés de leur existence. J’en sais plus sur l’algorithme
de Zhima Credit que sur la façon dont je suis notée par les
courtiers en données étasuniens. Comme le souligne Pasquale
dans son livre The Black Box Society, le système fonctionne
essentiellement comme un « wroir sans fain ».

Après mon départ de Chine, j’ai repris contact avec Lazarus
Liu sur WeChat. Il m'a envoyé une capture d’écran de son
score Zhima Credit, qui avait augmenté de 8 points depuis
notre rencontre. L'application affichait le commentaire
« Fantastique» et la police du texte était passée à l’italique.
Nous avons parlé d’une nouvelle fonctionnalité de
reconnaissance faciale appelée Smile to Pay. Elle venait d’être
introduite par Ant Financial dans un restaurant à thème de
Hangzhou appartenant à la chaîne Kentucky Friend Chicken.
Les murs du restaurant sont ornés de gigantesques téléphones
blancs. Pour commander, il vous suffit d’effleurer du doigt
une photo du plat désiré puis d’exposer votre visage au
téléphone en saisissant votre numéro de portable afin de
confirmer le paiement. Les premiers smartphones avaient
éliminé l’usage du portefeuille ; désormais, Smile to Pay
élimine le recours au téléphone personnel. Il suffit d’avoir un
visage. Liu n’était guère enthousiasmé par Smile to Pay. Si lon
en juge par la page «_ Affaires gouvernementales » du site Web de
Zhima Credit, il semblerait qu’il existe un partenariat entre
Pensemble des collectivités locales chinoises et Ant Financial
aux fins d'utilisation des capacités de reconnaissance faciale
développées par cette dernière. Mais ce n’est pas cela qui
chiffonne Liu. Pendant ses études à l’étranger, il avait testé la
fonction Face Unlock d’Android. À plusieurs reprises, son

25

colocataire, qui avait le même type de mâchoire carrée que lui,
avait pu déverrouiller son téléphone. « Je #rouve que ce n'est pas
très sûr, m'écrivit-il. Je voudrais être certain que la technologie est
vraiment an point. » Ses derniers mots étaient rédigés en anglais
(« #he real thing »), comme pour mieux souligner son propos.

Tout en discutant avec Liu, j’ai moi aussi ouvert mon
application Zhima Credit. Mon score avait augmenté de 4
points. « Vous avez encore une marge de progrès », m’informait-on
poliment. Mais, à côté de mon nouveau score de 554 points,
je vis s’afficher une petite flèche verte pointant vers le haut.

J'étais sur la bonne voie.
Mara Hvistendahl,
journaliste et écrivaine américaine,
elle a vécu à Shanghaï pendant huit ans.

Article original intitulé
“Inside China’s Vast New Experiment in Social Ranking”
paru dans la revue Wÿred de janvier 2018.
Illustrations de la revue Wired

Article traduit par Marc Saint-Upéry
publié dans La Revne du Crieur n°10, juin 2018.

26

Le totalitarisme
numérique de la Chine
menace toute la planète

Si la Chine est un régime totalitaire, ce n'est pas seulement
parce que le numérique donne des moyens de contréle
supplémentaires au Park dictatorial. Ces dispositifs
électroniques sont aussi porteurs de leur propre logique de
régulation sociale, qui s'étend à l'ensemble de la planète.

Il y à dix ans, la presse internationale à fait connaître au
monde entier l’existence d’une vague de suicides d’ouvriers
chez Foxconn, géant mondial de l’électronique implanté en
Chine, dont les usines produisent la plupart du matériel
informatique que nous utilisons . Le désespoir de ces jeunes
surexploités dans des bagnes /igh-fech a jeté une lumière crue
sur le coût humain de l’économie immatérielle célébrée par
tous les dirigeants. Une telle information pourrait-elle,
aujourd’hui, parvenir jusqu’à nous ? Difficilement.

C’est la conclusion à laquelle on arrive après avoir lu
Düctature 2.0, quand la Chine surveille son peuple (et demain le monde),
lessai de Kai Strittmatter (éd. Tallandier, août 2020), ancien
correspondant du S#ddeutsche Zeitung à Pékin.

! Yang, Jenny Chan, Xu Lizhi, La Machine est ton seigneur et ton maître, analyses, enquêtes
et témoignages sur la vie des ouvriers des usines chinoises de Foxconn, qui la perdent à fabriquer iPhone,
Kindle et autres PlayStation pour Amazon, Apple Google, Microsof, Nokia, Sony, et. (2013),
traduction de l'anglais, texte établi et traduit de l’anglais par Celia Izoard, éd. Agone, coll.
Cent mille signes, 2015.

27

Scène de la vie quotidienne en Chine :

«Il arrive que l’on constate soudain, pendant un char, que la
discussion perd toute espèce de sens : c’est que certains termes
sont effacés automatiquement par WeChat dans les échanges
entre l’émetteur et le récepteur sans qu'aucun des deux n’en ait
été informé. »

Les listes de mots interdits sur les réseaux sociaux sont
actualisées chaque jour par les autorités de la censure de
Pékin. En 2018, quand la Constitution a été modifiée pour
permettre à Xi Jinping de devenir président à vie, la liste de
ces mots allait de « accession an trône» et « lonez l'empereur» à
« Winnie l'ourson », qui avait été utilisé pour désigner le chef de
l'État en contournant la censure. Proscrite également,
Pexpression « pas d'accord » :

« Quiconque tentait d’entrer ces mots sur le réseau recevait

un message d'erreur l’informant avec regret que ces mots
violaient “es lois et les règles”. »

Dès sa nomination à la tête du Parti-État en 2013, le
président Xi Jinping a mis fin à quelques décennies de
pluralisme naissant en s’attelant à une purge complète de
l'internet. Le régime s’est employé à discréditer et à jeter en
prison les principaux opposants et défenseurs des droits
humains, et, à leur suite, les cabinets d'avocats qui les
défendaient, puis les avocats qui défendaient ces avocats — si
bien que la répression cible aujourd’hui, écrit Strittmatter, « 4s
avocats des avocats des avocats». Les universités du pays ont été
mises au pas par les inspecteurs de la Commission centrale
disciplinaire ; dans les amphis, le contenu des cours est surveillé
par des « officiers d'information étudiants ». Pour obtenir leur carte
de presse, les journalistes doivent réussir un test de « solidité
idéologique » sut appli « Étudier X5 : Rendre le pays fort », lancée en
2019, qui compile les discours et réflexions du président.

Les géants de la #ch (Tencent, Alibaba, JD.com, Baidu) sont
directement mis à profit pour construire le système de contrôle

28

social le plus ambitieux de la planète. Depuis 2017, la loi oblige
«toutes les organisations et tous les citoyens chinois» à apporter
« soutien, aide et coopération au travail des services secrets », y compris,
donc, les entreprises. Huaweï, qui a désormais l’autorisation
d’équiper les réseaux 5G de Bouygues et de SFR en France,
travaille avec les autorités dans la province du Xinjiang pour
parachever la surveillance des moindres faits et gestes des
Ouïghours, dont un million auraient déjà été déportés dans des
camps depuis 2017. Dans le Xinjiang, note Strittmatter, « Æs
décisions d'arrestations sont de plus en plus souvent prises par des systèmes
technologiques, on n'examine pas les cas individuels » : ce sont des
algorithmes qui calculent, à partir des habitudes de vie
renseignées par les données, qui doit être arrêté.

Plus qu’une dictature,
un système totalitaire

Malgré son titre, ce n’est pas une dictature que décrit
l'ouvrage de Kai Strittmatter, mais un régime totalitaire. Une
dictature règne certes, comme en Chine, par la force et le
mensonge ; elle confisque la sphère publique pour empêcher la
création d'organisations dissidentes. Mais un régime totalitaire
ne s’arroge pas seulement un monopole de la sphère publique ;
comme la montré Hannah Arendt, il tente de soumettre et
d'exploiter à ses propres fins toutes les sphères de l'existence,
jusqu'aux plus intimes. Le système du crédit social mis en place
pour lutter contre la « alhonnéteté », en cours de déploiement à
l'ensemble du pays, permet ainsi d'ajuster en permanence la
note de chaque citoyen en fonction du moindre de ses actes :
un message posté sur internet, un don du sang, le fait de ne pas
rendre visite à un parent âgé, de ne pas avoir rendu un livre à
temps à la bibliothèque. En 2018, déjà, 17,5 millions de Chinois
n'avaient plus le droit de prendre l’avion et 5,5 millions étaient
privés de train à cause d’un mauvais score. Grâce au big data et

29

à l'automatisation du contrôle par les algorithmes, il devient
possible, même dans le pays le plus peuplé du monde, de placer
un policier derrière chaque transaction, chaque mot, chaque
mouvement.

Qu'on se rassure cependant : ce système est mis en place
« dans le cadre légal le plus strict» de façon à « protéger la vie privée »,
assure le Parti.

«Certains peuvent se sentir menacés par un système qui met
pratiquement chacun sous l’œil d’un microscope, lit-on dans le
Quotidien du Peuple. Mais la grande majorité se sent en sécurité
parce qu’elle sait que la technologie est entre de bonnes mains. »

Cela prêterait à rire si on ne retrouvait pas là mot pour mot
les formules rassurantes qui entourent chez nous le
déploiement des mêmes technologies: vidéosurveillance,
biométrie, swart city, smart mobility — la centralisation des données
en moins. Ces expressions toutes faites visent à maintenir une
séparation purement théorique entre, d’un côté, la technologie,
et, de l’autre, l’intentionnalité politique qui guiderait son
déploiement. Mais existe-t-il vraiment une version « Sbérale » de
cette infrastructure de big data? Un monde « Zbre» où les
millions de capteurs, de caméras, et toutes les données
collectées ne serviront «gw'à» nous proposer de nouveaux
services, à affiner le ciblage marketing, à nous bombarder de
messages incitant à des comportements vertueux ?

La plongée que nous offre Kai Strittmatter dans la Chine de
Xi Jinping permet de comprendre que ce régime n’est pas une
simple mise à jour high-tech de la dictature maoïste. Il est le fruit
du croisement de deux idéologies totalitaires : le nationalisme
hérité du maoïsme incarné par le Parti, et le techno-
solutionnisme porté par l’industrie des nouvelles technologies
du monde entier. Car ce dernier ne peut être réduit à un simple
appareillage du pouvoir. Tout autant que le premier, il porte en
lui une vision de l’organisation sociale et du devenir humain.

30

Des PDG chinois
aux pontes de la Silicon Valley

Quand Tao Jingwen, ex-directeur de Huawei pour l'Europe
de l'Ouest et pilier de la sécurité dans la province ouïghoure du
Xinjiang, déclare vouloir «porter le monde numérique dans chaque
organisation, chaque famille et chaque être humain», À exprime un
désir commun à la plupart des chefs d’entreprise de la Silicon
Valley. Quand le PDG de Baïdu dit: «Nous devons injecter de
l'intelligence artificielle dans le moindre recoin de la vie humaine », À fait
précisément écho aux discours d’'Elon Musk, patron de Tesla,
ou à ce que Ray Kurzweil, directeur de l’ingénierie chez Google
et fondateur de la Singularity University, raconte dans son livre
Humanité 2.0 : La bible du changement.

Le totalitarisme numérique est installé en Chine, et cela
nous concerne tous. Pas seulement parce que l'essentiel de
nos objets matériels, ne serait-ce que par leurs matières
premières ou leurs composants, sont issus d’une gigantesque
prison à ciel ouvert où l’on n’a pas le droit d'écrire
Pexpression «pas d'accord». Mais aussi parce que les élites
économiques n’ont de cesse de vouloir « rattraper la Chine» en
matière d'intelligence artificielle et de big data, et que l’on
imagine difficilement à quoi pourrait ressembler, même sans
le décorum autoritariste post-maoïste, une déclinaison
démocratique de cette infrastructure de contrôle social.

Celia Izoard est journaliste au sein de la revue Z et de Reporterre.

Dans ses enquêtes et ses analyses, elle élabore une critique des nouvelles
technologies au travers de leurs impacts sociaux et écologiques.

Son dernier ouvrage, Merci de changer de métier,

lettre aux humains qui veulent robotiser le monde,

vient de paraitre aux éditions de la Dernière Lettre.

Article publié sur le site Reporterre le 6 janvier 2021.

31

Résister à la gestion
et l’informatisation
de nos vies

Plate-forme Écran total

Depuis 2011, un certain nombre d’éleveuses de brebis et
d’éleveurs de chèvres désobéissent à la directive européenne
qui les oblige à poser des puces électroniques à l’oreille de
leurs bêtes. Ils refusent de gérer leur troupeau par ordinateur
et de se conformer aux nécessités de la production
industrielle, comme la traçabilité. Ils s'organisent entre
collègues, voisins, amis, pour répondre collectivement aux
contrôles qu’exerce l'administration sur leur travail, et faire
face aux sanctions financières qui leur sont infligées en
conséquence.

De 2011 à 2013, des assistantes sociales ont boycotté le
rendu annuel de statistiques, qui sert autant à évaluer leur
travail qu’à collecter plus de données confidentielles sur les
«usagers ». Elles affirment l’inutilité de informatique dans
la relation d'aide. Elles dénoncent un des objectifs de
Padministration et ses managers: celui de faire entrer
Pobligation de résultats dans leur métier. Elles refusent qu’à
chaque situation singulière doivent répondre des actions
standard en un temps limité.

Dans les années 2000, des directeurs d’école et des
parents d'élèves se sont opposés à la collecte de données

32

personnelles sur tous les enfants scolarisés via le logiciel
Base-élèves. Fin 2015, des personnels de l'éducation
nationale ont dénoncé publiquement l’informatisation de
Pécole, par l’Appel de Beauchastel. Ils refusent de résumer
leur enseignement à une pédagogie assistée par ordinateur,
destinée à occuper la jeunesse en attente d’entrer sur le
marché du travail.

En 2013 est né un réseau, baptisé Écran total, pour
fédérer ce type de résistances. Il réunit des personnes
de toute la France travaillant dans Pélevage,
l'éducation, le travail social, la médecine, la
boulangerie, le maraîchage, la menuiserie ou les
métiers du livre... Mais aussi des gens au chômage, au
RSA ou sans activité. En comparant nos situations,
nous avons reconnu une même logique à lœuvre :
Pinformatique et la gestion détruisent nos métiers et
dégradent les relations sociales. Nous nous y opposons
ensemble, et appelons toutes celles et ceux qui vivent la
même chose à rejoindre Écran total.

Nous critiquons l'emprise grandissante des logiques
gestionnaires. Qu’elles se présentent comme innovation
technique, organisation scientifique du travail ou
management, ces formes de pouvoir attaquent notre dignité
et nous opposent les uns aux autres. Nous voyons
disparaître les marges de liberté qui nous permettent
d'échapper aux impératifs de la rentabilité. D’après le
discours dominant, il s’agit là d’un progrès. Mais pour les
humains que nous sommes encore, loin de mettre un terme
aux travaux pénibles, ce processus est le progrès de notre
dépossession.

Que nous fait informatique ? Elle vise à optimiser le
temps productif et prétend nous simplifier la vie, mais en
réalité, elle prend du temps et de l'attention au travail vivant

33

en démultipliant les tâches administratives. Elle nous oblige
à saisir des données. Elle produit ensuite des statistiques et
des algorithmes pour découper, standardiser et contrôler le
travail. C’est du taylorisme assisté par ordinateur. Le savoir-
faire est confisqué, le métier devient l'application machinale
de protocoles déposés dans des logiciels par des experts. Ce
qui n’est pas nommable ou quantifiable disparait : il y a de
moins en moins de place pour la sensibilité, la singularité, le
contact direct, pourtant essentiels à l’enseignement, le soin
Pagriculture, lartisanat... Par la mesure constante des
performances, nous finissons enfermés dans lalternative
infernale: subir la pression ou se faire éjecter. Bien
souvent, ce sera les deux. Pendant que les usines ferment,
même les activités qui en sont les plus éloignées sont
gagnées par l’absurdité et la violence du modèle industriel.

Au-delà du travail, c’est toute notre vie intime et
commune qui est affectée: elle perd ce qu’elle a
d’incalculable. Dans l'administration, les services publics,
les transports, en tant qu'étrangers, élèves, patients, clients,
nous sommes réduits à des flux, identifiés, surveillés,
numérisés. Les machines deviennent nos seuls
interlocuteurs. Les dispositifs électroniques intégrés à
toutes choses masquent les rapports de pouvoir sous une
apparence d’objectivité. L’enthousiasme pour les écrans
façonne un monde où tout s’aplatit, s'accélère et se
disperse. La saturation d'informations entrave la pensée et
les moyens de communication nous coupent la parole.
Mettre en valeur les savoir-faire autonomes et le temps de
leur élaboration est devenu une lutte quotidienne. La
prétendue dématérialisation consacre en fait la
surexploitation des ressources : composants métalliques et
plastiques des ordinateurs, data centers en surchauffe,
câblages géants... Le tout est fabriqué par les forçats du

34

monde industriel et échoue dans les décharges qui se
multiplient au Sud de la planète.

Écran total s’est réuni à plusieurs reprises, le temps d’un
week-end, à la ville comme à la campagne. Autant de
rencontres au couts desquelles nous partageons des
témoignages sur la déoradation de nos métiers et des
situations de conflit au travail ou face à l'administration.
Certains tentent de préserver du sens dans lexercice d’un
métier qu’ils reconnaissent de moins en moins. D’autres ne
veulent plus lutter sur le terrain de leur activité
professionnelle, démissionnent et s'engagent sur des
chemins de traverse. Le chômage peut alors être un moyen
de réfléchir et d’agir hors de la production et du travail
salarié. Nous mettons en mots ces conflits et ces parcours
pour sortir de Pisolement et de limpuissance dans
lesquelles les gestionnaires veulent nous enfermer. Partant
de l’analyse de ce que nous vivons, nous construisons une
parole politique commune et nous imaginons de nouvelles
formes de lutte et d’autres manières de travailler.

Nous mettons au centre de notre démarche un problème
qui n’est jamais porté collectivement, celui du rôle et du
contenu du travail. Il nous importe par exemple de pouvoir
juger du caractère inutile, voire nuisible, de certains métiers
et de la misère humaine qu’ils induisent. Nous constatons
que les syndicats ont renoncé à le faire. Ils se bornent le
plus souvent à une défense corporatiste de l'emploi, à lutter
pour défendre des statuts et des conditions de travail, sans
remettre en cause le sens des productions et des activités
pour lesquelles les travailleurs sont payés. Ils se font ainsi
les cogérants de l’organisation sociale à l’origine des maux
qu’ils combattent.

Dans le cadre de la lutte contre le puçage électronique des
animaux d'élevage, des fermes sanctionnées de plusieurs

35

milliers d’euros ont bénéficié de la solidarité de centaines de
personnes. Ces dernières ont aussi bien organisé des
concerts de soutien ou des débats, envoyé de l’argent aux
éleveurs, écrit des lettres de protestation aux
administrations et occupé celles-ci, accueilli en nombre les
contrôleurs sur les fermes. Les refuseurs du puçage sont
ainsi en mesure jusqu'ici de tenir leur position.

Nous voulons continuer à nous soutenir dans nos
luttes en affirmant des choix communs et en
coordonnant nos actions publiques : désobéir de
manière concertée, faire face collectivement aux
sanctions, mettre en œuvre un soutien matériel et
humain entre les métiers et les régions.

Au-delà, nous voulons retrouver de l’autonomie,
redéfinir nos besoins, nous réapproprier des savoir-
faire. Bref: décider de la forme et du sens de nos
activités et de notre vie.

Ce sont ces buts et ces pratiques que nous vous
invitons à partager et approfondir au sein d’Ecran total.

Pour nous rencontrer, écrire à :

Faut Pas Pucer, Le Batz,
81 140 St-Michel-de-Vax.

Sud-est de la France :

Bertrand Louart, Radio Zinzine
04 300 Limans

36

Avis de parutions

Le groupe Écran Total publie trois brochures sur un thème
d’actualité : l’épidémie de Covid-19 et les mesures auxquelles
elle a servi de prétexte.

La première, intitulée À quoi l'épidémie nous confine-t-elle ?, à
pour point de départ une critique du type de «santé »
défendue dans une société industrielle avancée.

« En d’autres termes, le prix à payer pour pouvoir consulter
la météo sans sortir de chez soi (ou jouer à Candy Crush, c’est
selon) jusqu’à 86 ans, après avoir survécu à trois cancers, c’est
bien d’accepter les obligations périodiques d’enfermement à
domicile en dehors des activités de valorisation économique, en
regardant passer par sa fenêtre les étoiles artificielles. Le soin
communautaire devra donc probablement lui aussi s’extraire
d’un impératif d’efficacité pensé en termes de nombre d’années
à accumuler pour pouvoir récupérer cette question réellement
structurante : quelle vie voulons-nous vivre ? »

La deuxième, intitulée Sowriez, vous êtes soignés, plus courte,
insiste sur le climat de peur et l’enfermement qu’entraînent les
mesures sanitaires.

« Ce qu’il y a de “totalitaire” là-dedans ne se reconnaît pas
tant au bruit des bottes des militaires qu’au bruit des pantoufles
et des clics des citoyens assignés à résidence. Leur dépossession
est rendue acceptable par le fun infantilisant des services en
ligne, le confort captivant de cette vie sans contact et sans
effort, délivrée du monde, abreuvée de sons et d’images. »

La troisième, O7 esf passée la colère ?, part de hypothèse que
les restrictions prétendument sanitaires durent indéfiniment,
dénonce «le chantage à la maladie et à la mort », et appelle à
agir politiquement.

37

«Nous sommes censés prendre soin, de façon tout à fait
indirecte et abstraite, des plus vulnérables, alors que nous
sommes dressés depuis des décennies à marcher sur la tête des
autres, sans nous préoccuper des conséquences humaines de
nos actes de production et de consommation. Et nous sommes
poussés à accepter une stratégie sanitaire qui va faire exploser,
précisément, le nombre des “plus vulnérables” (du point de vue
économique, psychologique et physiologique). Nous refusons
ce chantage à la responsabilité. »

Ces trois écrits diffèrent par leurs tons et leurs perspectives.
En effet, la situation actuelle à suscité des discussions animées
au sein d'Écran Total, où les positions sont sensiblement
différentes sur cette question. Rien de plus normal s'agissant
d’un collectif constitué de personnes dispersées à travers toute
la France, et qui vivent donc dans des réalités sociales,
professionnelles, etc., singulières, et dont la multitude de
groupes régionaux fonctionne en autonomie.

En conformité avec cette décentralisation revendiquée,
nous avons décidé de rendre disponibles les brochures à des
adresses distinctes, en y ajoutant du matériel plus ancien, le
tout à prix libre, et selon des moyens de paiements variés.
Récapitulons :

Nouveautés :

Où est passée la colère ? Les mesures prétendument sanitaires et leurs
conséquences, pat le groupe Ecran Total-région parisienne, 32
pages, format AG.

Souriez, vous êtes soignés, par Pierre Bourlier, 16 pages, format AG.

À quoi l'épidémie nous confine-t-elle ?, par le groupe Écran Total,
24 pages, format A6.

Toujours disponibles :

Ne laissons pas s'installer le monde sans contact. Appel au boycott de
l'application SiopCovid, collectif, printemps 2020, 32 pages,
format AG.

38

« Ce qui est frappant, c’est que les mesures de distanciation
interpersonnelle et la peur du contact avec l’autre générées par
lPépidémie entrent puissamment en résonance avec des
tendances lourdes de la société contemporaine. La possibilité
que nous soyons en train de basculer vers un nouveau régime
social, sans contact humain, où avec le moins de contacts possibles et
régulés par la bureaucratie, est notamment décelable dans deux
évolutions précipitées par la crise sanitaire: l’aggravation
effrayante de l'emprise des Technologies de l’information et de
la communication (TIC) sur nos vies ; et son corollaire, les
projets de traçage électronique des populations au nom de la
nécessité de limiter la contagion du COVID-19. »

Des lits, pas des applis !, par le groupe Écran Total-région
parisienne, printemps 2020, 8 pages, format A5.

«Alors oui, la lutte contre les coupes budgétaires qui
s'annonce est on ne peut plus légitime, nous la souhaitons
ardemment. Mais elle serait lourde de désillusions si elle
ignorait la question des logiques gestionnaires qui ont fait la
pleine démonstration de leur absolue nuisance, si elle ne
revendiquait pas /4 liberté des pratiques professionnelles. »

A.CA.B. (AN Computers Are Bastards), dossier du journal
COFD n°151, février 2017, 12 pages couleur, format A3.

Pour commander ce matériel à prix libre :

Envoyer un chèque à l’ordre de «La Lenteur », 13 rue du
Repos, 75 020 Paris ou à l’ordre de « L’Inventaire », Les Petits
Bouchoux, 39 370 Les Bouchoux. Tout est à prix libre.
Précisons bien que tous les titres se trouvent à chacune des
deux adresses: inutile de faire des commandes séparées.

Les paiements en timbres ou en petits billets de banque
soigneusement emballés sont très appréciés. Profitez-en ! Cela
paraîtra peut-être bientôt aussi incongru qu’une cabine
téléphonique.

Ecran Total & La Lenteur, avril 2021.

39

Bienvenue dans l’enfer
du social ranking

Quand votre vie dépend de la façon dont
l’État et les banques vous notent

Page 1

Le totalitarisme
numérique de la Chine
menace toute la planète
Page 27

Résister à la gestion
et l’informatisation
de nos vies

Plate-forme Écran total
Page 32

Avis de parutions
Page 37

ise en page :
Tranbert, avril 2019 — avril 2020.

40

RH .7\7 V1: \031e]8) 154,18)

Comptabilité

FA
Z
Z
A
A
“2
“2
SÆ
Er A
RAA
K4 4
EE A
A
EE
12
A
2
2
2

\

L'application Alipay suit votre comporte-
ment en ligne afin de déterminer une cote
de crédit qui peut aller de 350 à 950 points ;
il offre des avantages et des récompenses
aux individus affichant un bon score.
L'algorithme prend en compte non
seulement votre capacité à payer vos
factures, mais également vos achats, vos
diplômes et la cote de crédit de vos amis.

Les dirigeants de la banque Ant Financial
défendent publiquement l'idée qu’une
approche axée sur la collecte de données
permettra l'accès au système financier de
personnes qui en avaient été exclues jusque-
là, comme les étudiants ou les habitants des
campagnes.

Adressé à plus de deux cents millions
d'utilisateurs chinois, l'argument de vente est
limpide : vos données vous ouvriront les
portes comme par magie.

Brochure du collectif Écran total n°0
Prix Libre